從 prompt、context、harness、loop 到 graph engineering,這兩年每隔一陣子就多一種「AI 工程」。名字一直換,背後說的都是同一件事:AI 的潛力很大,人類一邊探索、一邊想辦法駕馭它。這部技術演進史,其實也就是一部治理史。
第一代・Prompt engineering(提問工程):ChatGPT 剛出來時,AI 只會「說」。唯一能動的槓桿是輸入,同一個問題換個問法、給個範例、指定角色,結果就差很多。這一代管的是怎麼問。
第二代・Context engineering(情境工程):AI 開始能查資料、能用工具(能做)之後,大家發現光會問不夠,答得好不好取決於它手上有什麼。重點於是從「巧妙措辭」變成「安排它看到的整個資訊環境」:對的知識、對的範例、對的工具、對的護欄。這一代的護欄(guardrail)在控制資訊邊界與隔離。
第三代・Harness engineering(駕馭工程):等 AI 要真的動手、還要多步驟運轉(長成 agent),光給足情境還不夠。要駕馭這匹馬,得架馬鞍、綁韁繩:權限分級、狀態儲存、出錯回復。這一代決定它夠不夠可靠、能不能真的上線。護欄落在運作層:哪些工具能用、用什麼身分執行、能回傳什麼。
第四代・Loop engineering(迴圈工程):這就是上一篇提到的「迴圈」。agent 跑得起來之後,接下來是它能不能持續做穩。讓系統從環境中發現該做什麼、評估做到什麼程度、再把結果沉澱下來,讓下一輪更有效率。護欄在系統層:流程怎麼觸發、幾步該停、預算多少、什麼時候把控制權交回給人。
第五代・Graph engineering(圖工程):當系統中有多個 agent 在運行的時候,光控制一個 agent 的行為已經不夠,因此要把多個 agent 接成一張「圖」:每個節點是一個 agent,節點之間連成路由,共用狀態沿著線流動,可以分頭平行、看情況轉彎、也可以在關鍵處插進人工簽核點。護欄在拓撲層:誰能把工作交給誰、共用狀態誰能寫、哪一條線上一定要卡一個人。
把五代排在一起,會看到一條線:prompt(控制輸出行為)→ context(控制資訊邊界)→ harness(控制執行方式)→ loop(控制自主迴圈)→ graph(控制多 agent 協作)。每往上一層,AI 就更自主、更難管一點;每一代「工程」,都是一次治理動作。
把這幾層套到一個具體例子。假設你要一個公司內部的財務 agent:
🤿 深水區:五代工程常聽到的 buzzword
① prompt:提示要明確、給範例(one-shot/few-shot)、要求逐步推理(chain of thought)、給角色(persona)、指定輸出格式、允許說不知道。
② context:context window(一次看得到多少,動輒 1M token)、RAG(要用時才把相關資料撈進來)、compaction/摘要壓縮(塞不下先濃縮)、prompt caching(重複情境快取省錢)。
③ harness+④ loop:agent 運作(ReAct)、護欄、調度(orchestration、agent runtime、sub-agent)、人機協作(HITL)、持續運作(trigger、escalation)。
⑤ graph:代表工具是 LangGraph、CrewAI,把多 agent 接成有節點、有路由、有條件分支的圖。圖這件事不新,新的是模型終於可靠到能讓「一整個 agent」當一個節點。不過這也正好證明:名詞會一直換、會過期,真正沒變的,是每個新名詞底下的治理難題。
導入 agent 時,很多公司把「治理」想成之後的專案:先上線、跑跑看、看到價值,再回頭思考合規辦法、審核流程。但從這部工程史看,治理不是加在技術後面的東西,它就是技術本身,每一代解決的,都是「怎麼安全地讓它多做一點」。把治理往後推,等於把最難、最貴、爆炸半徑最大的那一層留到最後才做。
而且越到後面幾代,這條判斷越外包不掉。你可以外包 prompt 技巧、外包工具串接,但「我們公司的架構下,agent 能自己跑到哪、多個 agent 之間誰能交接給誰、哪一條邊必須停下來等人簽核」這幾條線,只有自己才能畫。
演進軸是寫給工程師看的,護欄軸才是經營層必須拿起來的尺。而護欄有不同的形式。
一句話帶走:規範它不要做,跟讓它做不到,是兩件事。
韁繩講完了,但馴服一個東西之前,得先認識它的脾氣。這幾代工程再怎麼進步,都改不掉一個天生的毛病:它會一本正經地說 X 話,而且錯得很理所當然。為什麼會這樣?明天繼續。